Multi-Head Latent Control: A Unified Interface for LLM Agent Decision Making
多头潜在控制：LLM Agent推理决策的统一接口
🧭 Agent 推理时控制接口与多模型路由 ★ 深度解读
University of Alberta · Huawei Technologies Canada Co., Ltd.
通过读取冻结LLM的隐状态轨迹，轻量控制头在推理时做出模型选择与干预决策，大幅降低大模型调用成本。
📌 工作参考价值（4 点）
- 在推荐系统的多模型级联（小模型→大模型）中，可借鉴 Capability Head，从生成隐状态预测小模型是否足够，仅必要时调用大模型，节省成本；特别适合基座模型频繁换代的环境，无需重训基座。
- 对于涉及工具调用的推荐 Agent（如实时查询商品价格、库存），可用 Resolution Head 决定调用时机，减少不必要的工具调用，同时避免遗漏关键调用，提升决策准确率。
- 该轻量控制层只需要冻结基座模型的隐状态，训练成本低（单卡一日内完成），适合业务快速实验和部署；训练数据混合多任务、多模态，使控制信号泛化性更强。
- 前缀预测实验表明，仅用部分生成轨迹即可提前判断模型能力，可在生成早期就决定是否升级模型，进一步降低延迟和计算浪费。